AI Papers Daily

#Multi-teacher distillation

2 篇

D^3-MOPD: Adaptive Dynamic Domain ScheDuling for Efficient Multi-Teacher Distillation

D^3-MOPD：自适应动态领域调度的高效多教师蒸馏

🧭 多教师蒸馏 · 在线动态调度

AllSpark Team

提出零开销动态调度器，复用每领域reverse-KL信号在线调整多教师蒸馏的数据混合比例，大幅提升收敛效率与性能

📌 工作参考价值（4 点）

• 借鉴 per-domain loss/KL 轨迹作为在线调度信号：在多任务/多域推荐模型（如首页推荐、搜索、广告域联合训练）中，定期追踪各任务的收敛速度与剩余提升空间，动态调整采样比例，避免固定混合导致快任务过拟合、慢任务欠训练。
• 使用 off-process 异步 watcher 实现零开销调度：不侵入训练主循环，适合在现有训练框架中轻量集成，无需改动核心代码即可获得收益。
• 调度策略可迁移到多场景 LLM 微调：当不同领域数据收敛速度差异大时，优先分配资源给“难但可学”的领域，减少已饱和领域的采样，能显著降低达到目标性能所需的训练步数。
• 结论“领域越多、收敛模式差异越大，动态调度收益越大”提示：在电商多域多目标场景下，随着接入业务域增多，这类自适应调度可能带来超线性训练效率提升。

Training | 2026-08-24 | HF Daily | score 7/10

Multi-teacher distillationDynamic schedulingReverse KLLLM trainingDomain adaptation

Scaling the Horizon, Not the Parameters: Reaching Trillion-Parameter Performance with a 35B Agent

缩放视野而非参数：用 35B 智能体达到万亿参数性能

🧭 Agent 长时域扩展 · 多教师在线蒸馏 ★ 深度解读

Shanghai Artificial Intelligence Laboratory

构建长轨迹知识-行动图与多教师在线蒸馏，让 35B MoE 智能体在科学、工程、搜索等长程任务上超越万亿参数模型

📌 工作参考价值（8 点）

• 长轨迹过程监督：KAG 构建思路可复用 \
• 论文将搜索、工具调用、验证信号统一为知识-行动图（KAG），每条训练轨迹平均 45K tokens，包含成功与失败的中间步骤。在电商搜索/推荐场景中，多轮对话推荐、深度商品调研等长程任务可借鉴此方式，把用户交互、工具调用、商品浏览记录构建为可训练的过程级监督数据，而非仅依赖最终答案。
• 多教师在线蒸馏的域路由设计 \
• 六个异构领域（搜索、工程、科学、指令跟随、工具调用）各训练一个领域教师，通过域路由的在线策略蒸馏（OPD）合并到单一 35B 学生，避免不同领域梯度冲突。电商中不同品类、不同阶段（召回/排序）的专家模型可用同样方式蒸馏为统一部署模型，通过领域标签路由教师信号，保持各领域专长。
• 显著词汇对齐（SVA）提升蒸馏效率 \
• SVA 仅约束教师高概率 token 子集（top-k 支持集）上的分布，避免全词汇表对齐引入噪声。在推荐生成式语义 ID 或文本答复时，可借鉴该技术，在蒸馏生成任务中聚焦关键 token，提高知识转移稳定性。
• RL 训练中的优势增强与数据复用 \
• 工具调用 RL 中利用过程评分为失败轨迹提供分级奖励（仅负数样本使用过程奖励），并用数据复用（64 个 hard case 反复 rollout）在少量步数内达到高效提升。当业务有少量高质量困难任务时，可复用该策略进行 RL 微调，降低对庞大数据集的依赖。

Agent | 2026-06-28 | HF Daily | score 8/10

AgentLong-horizonKnowledge-action graphMulti-teacher distillationMoEOn-policy distillation